瓦力游戏

提交需要
*
*

*
*
*
立即提交
点击”立即提交”,批注我理解并赞成 《瓦力游戏科技隐衷条款》

logo

    产品与服务
    解决规划
    技术支持
    合作发展
    关于瓦力游戏

    申请试用
      高端访谈?瓦力游戏薛恺|当AI有了“身份”:构建“人机智”三位一体的数据安全新范式
      颁布功夫:2026-09-15 阅读次数: 1718 次

      AI大模型与智能体加快落地,企业数字化业务持续推动。AI提升效能的同时,也突破了原有的数据安全天堑。传统防护侧沉人和系统的静态账号治理,面对AI新风险却显得力不从心:天然说话触发的隐性数据查问、多工具链式挪用带来的组合风险、敏感数据表泄至表部模型的管控缝隙,都是旧系统覆盖不到的问题。AI已经不只是内容天生工具,而是具备接见与执行能力的独立主体,安全沉点也从校验模型输出合规,转向管控AI齐全行为链路。


      近日,本刊编纂与瓦力游戏(以下简称“瓦力游戏”)数据安全产线高级产品总监/产委会主任薛恺进行了互换,萦绕AI智能体时期下数据安全的主题挑战、防护架构、市场变动与技术方向发展对话,探求从“管账号”转向“管行为”的治理思路,分享多智体协同下一体化防护的落地实际,助力企业构建适配AI时期的数据安整个系。


      瓦力游戏| 首页 -瓦力出品,必属精品

      薛恺

      薛恺,瓦力游戏数据安全产线高级产品总监及产委会主任,国际云安全联盟数据安全认证专家(CDSP)。持久深耕数据安全领域,全面掌管产品钻延注规划、建设及贸易化,具备丰硕的数据安全产品系统设计、平台化建设与行业解决规划经验。专一数据安全一体化、数据安全运营、流动安全、API安全、数据库安全及AI赋能等方向,深谙行业趋向、监管要求与企业级安整个系建设蹊径。曾参加多省市区域数据安全一体化建设及沉点项目交付,服务政务、金融、医疗等多行业客户。参加多个数据安全有关行业尺度造订,持续关注数据安全防护、运营系统、可信数据流通及AI安全等前沿议题。

      近期Gartner颁布2026中国网络安全技术成熟度曲线,将“代理型AI网络安全”列为新增技术。赛迪照拂也指出,随着人为智能从内容天生走向工作执行,AI智能体安全将成为AI规;玫某烈∧芰。从瓦力游戏的观察看,这种转变给数据安全带来了哪些新挑战 ?


      薛恺:AI智能体从“对话天生”演进到“工作执杏妆最主题的变动,是AI从“信息处置者”造成了“行动主体”。从前我们会商天生式AI安全,更多关注输入了什么、模型回覆了什么;进入AI智能体时期以来,真正必要被约束的是AI智能体能代表谁、能接见什么、能挪用什么工具,以及最终能执行什么作为。


      这会直接带来几类变动。首先,接见主体变了。企衣凤不再只有天然人和利用账号,还会大量出现AI智能体、模型服务、MCP服务、插件等新主体。其次,接见蹊径变了。传统接见往往是相对固定的“用户—终端—利用—数据”,而AI智能体味凭据工作动态选择模型、知识库、API、数据库和工具,蹊径一时天生,甚至会陆续多跳挪用。同时,权限的寓意也变了。从前给一个账号授权,天堑相对明确;此刻统一个AI智能体可能在分歧工作中代表分歧的人、挪用分歧工具,静态授权很难覆盖这种高低文变动。如此一来,风险判断必须从单点事务走向全过程。单看一次SQL、一次API挪用或者一次模型输出,都可能没有问题,但把“谁提议—AI智能体若何理解—挪用了什么—接见了哪些数据—最后输出或执行了什么”串起来,风险才真正显露。


      所以AI智能体数据安全不能只做模型输入输出过滤,也不能单一复造传统IAM或DLP。安整个系必要起头治理AI的身份、权限、工具、数据接见和行为链路。这也是我们提出“AI资产看得清、AI身份分得清、AI接见管得住、AI风险识得准、AI行为可追忆”的原因。


      传统数据安全重要关注“人”和“系统”两类身份。瓦力游戏今年提出了一个很有意思的新框架——将“智能体身份(AI Identity)”作为独立的风险主体,构建“人机智”三位一体的防护系统。为什么要做这样的划分 ?从技术底层看,AI身份的接见行为与传统身份有哪些性质分歧 ?为什么传统IAM和DLP的防护逻辑无法直接套用 ?


      薛恺:瓦力游戏把身份拆成人类身份(HI)、非人类身份(NHI)、智能体身份(AII),并不是为了增长一个新名词,而是由于这三类主体的行为逻辑的确分歧。

      人类身份(HI),主题特点是“人直接做决定” ?⑷嗽薄⒅卫碓薄⒈戆嗽钡仍惫ざ加邢喽悦魅返淖橹槭簟⒏谖恢霸鸷驮鹑沃魈,好多安全节造都能够萦绕人、角色和岗位发展。


      非人类身份(NHI),蕴含服务账号、API Key、Token、剧本和利用账号。它们不是天然人,但行为通常由法式规定驱动,挪用频率更高、持续功夫更长,重要问题是凭证泄露、权限过大、持久无人治理。


      智能体身份(AII)则分歧,AI智能体具备感知、推理、规划、工具挪用和工作执行能力,它不是单一依照固定剧本逐条执行,而是可能凭据高低文沉新选择蹊径、拆分工作、组合工具。这种“工作驱动的动态链路”,是传统身份系统最难处置的部门。


      传统IAM善于回覆“谁能够接见什么”,但面对AI智能体,还必须持续回覆几个问题:是谁在驱动这个AI智能体,AI智能体此刻代表谁行动,它以什么运行身份执行,挪用了哪些工具,最终接见了哪些数据。也就是说,AI身份现实上是主体身份、运行身份、授权身份、工具身份和责任身份叠加形成的复称身份。


      DLP也类似。传统DLP更善于鉴别敏感内容是否被复造、上传或表发,但AI的数据流动可能发生在知识检索、高低文拼接、模型推理、工具挪用和了局天生等多个环节。若是只盯最终输出,很容易错过前面的越权接见和中央链路。因而,对AI的防护不能停在“账号是否合规”或“内容是否敏赣妆,还要把身份、高低文、工具、数据和行为关联起来。


      从您的观察看,企业在现实落地AI利用时,哪几个风险场景最容易“踩雷” ?从现尝试业案例看,哪些风险场景在政企客户中已经真实发生,且传统安全工具无法覆盖 ?请分享具体的案例。


      薛恺:此刻企业真正容易出问题的,不愿定是模型自身,而是 AI智能体接入业务和数据之后产生的新链路。在项目互换和规划落地中,我们发现有这几类高频问题,这也正是瓦力游戏即将正式颁布的“AI数据安全一体化平台”沉点致力解决的方向。


      知识库越权。企业把内部造度、客户信息、业务资料接入AI副手以来,AI能检索到的数据领域往往比当前提问人的权限更大。若是检索阶段没有继承原罕见据权限,模型回覆自身可能没佑装违规作为”,但它已经把用户本不该看到的内容沉新组织并输出了。


      天然说话转SQL。用户只说一句“把最近三个月的客户数据整顿出来”,系统可能自动天生SQL、挪用数据库并返回了局。这里的风险不只是SQL是否正确,还蕴含查问领域是否过大、是否射中敏感字段、是否形成批量导出,以及这个操作到底应该归责给提议人、AI还是背后的服务账号。传统数据库审计能看到SQL,却不定知路这条SQL是由哪个AI工作、哪段天然说话意图触发的。


      工具和MCP挪用失控。AI智能体一旦占有邮件、文件、数据库、API或自动化工具权限,一个被传染的高低文或者谬误指令,可能进一步触发查问、批改、发送等作为。单独看每次挪用都可能是合法接口,风险来自挪用组合和工作高低文。


      敏感数据进入表部AI。员工把文件、代码、报表直接交给表部 AI 工具处置,传统终端侧可能只看到一次网页接见或文件上传,却不知路这些内容进入了什么模型、用于什么工作、是否会持续被加工和传布。


      这也是我们此刻出格强调的一点:AI安全已经不能只问“模型说了什么”,还要追问“AI代表谁做了什么、碰了什么数据、挪用了什么工具、了局去了哪里”。


      “AI资产看得清、AI身份分得清、AI接见管得住、AI风险识得准、AI行为可追忆”,这个链条中,最大的挑战是什么 ?


      薛恺:AI智能体安全从“管账号”升级到“管行为”,最大的挑战不是“鉴别身份”或者“纪录行为”自身,而是把身份和行为真正关联起来,并且放回业务高低文里判断。


      单独鉴别一个AI智能体、一个Token、一个服务账号,技术上能够解决;纪录API、SQL、工具挪用和模型输入输出,也并不陌生。难点在于现实中的一条AI工作链往往逾越多个对象:一个天然人提议要求,AI利用挪用模型,模型再挪用MCP工具,工具通过服务账号接见API或数据库,最后了局又经过模型加工后返回。若是这些日志依然分散在分歧系统里,安全人员看到的只是一堆彼此孤立的事务。


      所以我们更关注“高低文关联”。平台必要把用户身份、AI身份、运行账号、工具、API、数据库、敏感数据、接见功夫、挪用蹊径和最终输出关联到统一条工作链上。在这个基础上,再判断它是否切合当前人的权限、当前 AI 的业务用处、当前工作的合理领域,以及汗青行为基线。只有这样,能力鉴别出“每一步都合法,但组合起来越界”的风险。


      这也是从“管账号”到“管行为”的真正变动。传统IAM更左袒接见前的静态授权;AI身份治理要覆盖接见前、接见中和接见后:接见前确认身份和信赖状态,接见中凭据高低文做动态授权、脱敏、限频和阻断,接见后把输入、输出、数据接见和工具挪用形成齐全证据链。最终指标不是多网络日志,而是让一次AI行为可能被诠释、被追忆,也可能被措置。


      据“AI 数据安全一体化平台”资料介绍,该平台提到身份准入层、接见节造层、内容安全层、行为审计层、风险运营层等五层防护模型。这五层是像“洋从妆一样层层包裹,还是更像一个联动的“神经网络” ?在现实部署中,企业最常从哪一层起头切入 ?


      薛恺:这五层防护模型,能够理解成一个安整个系,由于AI智能体的风险不会按层发生,真正有效地节造肯定是跨层联动的。


      身份准入层解决的是“这个接见主体到底是谁、当前环境是否可信”;接见节造层持续判断“它此刻能够接见什么数据、什么API、什么工具”;内容安全层关注输入和输出里有没有敏感信息、恶意指令或不合规内容;行为审计层把整个过程纪录下来,并鉴别异常蹊径和行为;风险运营层则把前面产生的身份、权限、内容和行为信息沉新关联,形成告警、工单、审批、阻断、复盘和战术优化。


      五层之间不是串行实现,而是持续反馈。好比行为审计发现某个AI智能体在短功夫内陆续扩大查问领域,这个风险能够反向影响它的信赖评分,接见节造层随即收紧权限或降低接见频率;若是内容安全鉴别到高敏数据,战术又能够触发起态脱敏或审批。这里真正沉要的是战术可能随着高低文变动,而不是预先写死一套规定。


      从现实建设看,企业通常不会一路头就钻营五层全数到位,更现实的做法是先从“看明显”起头:盘点AI利用、Agent、模型、MCP、知识库、API和工具,把身份与接见关系成立起来,再优先治理越权接见、敏感数据挪用、工具滥用等高风险场景;∈菀坏┏闪,后面的动态节造微风险运营才有靠得住凭据。


      您以为AI的遍及对数据安全市场带来了哪些结构性的变动 ?


      薛恺:AI对数据安全市场的影响,能够理解为“安全天堑被沉新画了一遍”,而不只是增长一个新的产品品类。


      首先,身份治理睬发生显著变动。以前企业最关切的是员工账号、治理怨厮号和利用账号;接下来AI智能体、模型服务、MCP服务、插件和自动化工作会急剧增长。企业必须成立AI身份的登记、授权、运杏注调换、停用和责任归属机造,并且授权方式会从静态角色逐步转向基于工作、高低文微风险的动态节造。


      其次,数据接见节造会从“系统到系统”进一步细化到“AI智能体到工具、工具到数据”。API、MCP和各类工具挪用会成为新的高频接见蹊径。以来企业不仅要知路某个接口有没有被挪用,还要知路由哪个 AI智能体、代表谁、为了什么工作、在什么高低文下挪用,以及挪用了局是否超出了最初的工作天堑。


      与此同时,数据安全运营自身也会被AI沉构。此刻好多安全运营依然依赖人员在分歧系统之间查日志、找资产、核身份、判断风险、写汇报。以瓦力游戏数据安全多智体为代表的安全智能体的价值,不是单一代替几个操作步骤,而是把资产、身份、风险、措置、审核和汇报这些正本割裂的工作串成一个可持续协同的过程,把专家经验逐步沉淀成能够被挪用、复用和验证的能力。


      因而,我以为AI会给数据安全带来新的增长空间,但真正的变动不是“多卖一个AI安全产品”,而是企业原有的数据安全能力必须沉新适配AI成为接见主体和执行主体之后的新环境。


      据瓦力游戏数据安全多智体的资料介绍,该资料提出了七大智能体协同的架构。从产品设计角度看,为什么要从“单一风险监测智能体”走向“多智体协同” ?这个“AI数据安全一体化平台”具体是怎么利用的 ?


      薛恺:我们最早思虑AI在数据安全的利用时,是从“风险监测智能体”起头的,由于这是最直观的价值:把大量日志交给AI,援手安全人员发现异常、诠释原因。但真正做下去以来发现,单一风险智能体很快会遇到天花板。它要判断一次接见是不是风险,必须知路资产敏感度、身份归属、已有权限、汗青行为;判断完以来,还涉及审核、措置、复盘和汇报。也就是说,风险研判天然依赖一整套高低文,不成能持久靠一个“大而全”的 Agent 独立实现。


      因而我们把数据安全运营拆成七类相对明确的专业角色:资产智能体掌管资产发现、目录和画像;身份智能体掌管身份鉴别、关联、动态鉴权和异常身份发现;风险监测智能体掌管高低文关联、行为分析微风险鉴别;响应智能体掌管风险汇聚、措置建议和反馈关环;审核智能体掌管SQL、API等高风险操作的语义审查与战术建议;汇报智能体掌管运营、监管和专项汇报天生;安全专家智能体则衔接产品、合规、行业经验和措置知识,为其他智能体和安全人员提供专业判断凭据。


      在AI数据安全一体化平台里,这些智能体不是七个谈天窗口,而是成立在统一套安全数据底座和知识库之上的协同角色。好比风险智能体发现某个 AI 身份异常接见敏感字段,能够挪用身份高低文确认责任主体和权限天堑,再由安全专家智能体补充风险诠释,审核智能体判断有关操作是否满足战术,响应智能体给出措置蹊径,最后由汇报智能体沉淀为事务汇报和运营了局。


      信息起源:信息安全与通讯保密杂志社


      瓦力游戏| 首页 -瓦力出品,必属精品 免费试用
      瓦力游戏| 首页 -瓦力出品,必属精品 服务热线
      瓦力游戏| 首页 -瓦力出品,必属精品

      顿时征询

      400-811-3777

      瓦力游戏| 首页 -瓦力出品,必属精品 回到顶部
      【网站地图】